McKinsey & Company được thành lập vào năm 1926 với tên gọi James O. McKinsey & Company, người sáng lập chính là James O. McKinsey.[3] Chi nhánh thứ 2 được thành lập tại New York vào năm 1933.[4] Hoạt động chính là đưa ra những tư vấn về việc sử dụng nguyên lý kế toán trong quá trình quản lý.

Năm 1935, James O. McKinsey & Company sáp nhận với Wellington & Company.[5] Tuy nhiên, sau khi James O. McKinsey qua đời vào năm 1937, văn phòng tại New York đã chính thức sở hữu độc quyền tên McKinsey (1947).[6]

Những năm 1940 và 1950, tốc độ phát triển của McKinsey tăng nhanh chóng, nhất là tại châu Âu. Tuy nhiên, từ sau năm 1967, thời điểm mà Bower - Giám đốc điều hành từ chức, doanh thu của McKinsey đã đi xuống bởi có sự cạnh tranh từ các tên tuổi mới như Boston Consulting Group và Bain & Company. Khi Giám đốc điều hành mới là Ron Daniel được kế nhiệm, ông đã khởi động lại hoạt động kinh doanh của McKinsey, giúp công ty tăng doanh thu trở lại vào năm 1988. Đặc biệt, doanh thu của McKinsey tăng gấp đôi vào những năm sau đó, dưới nhiệm kỳ của Fred Gluck.[6]

Từ năm 1994, đầu tiên trong lịch sử, Giám đốc điều hành của McKinsey không phải là một người Mỹ, khi Rajat Gupta đảm nhận chức vụ này, quy mô của công ty đã được mở rộng lên nhiều lần trong nhiệm kỳ của ông. Số lượng nhân viên tăng từ 2 900 lên 7 700 nhân viên, từ 58 đến 84 chi nhánh. Bên cạnh đó, thị trường quốc tế cũng được mở rộng hơn tại Ma Cao, Bắc Kinh, Băng Cốc.[7]

Từ năm 2001, McKinsey tập trung và đầu tư vào nhiều lĩnh vực khác như công cộng và xã hội, quản lý tri thức giúp cho công ty ngày càng phát triển hơn nữa. Năm 2003, McKinsey thành lập trụ sở châu Á - Thái Bình Dương tại Thượng Hải (Trung Quốc). Từ đó, doanh thu của công ty ở ngoài Hoa Kỳ chiếm hơn 60%. Năm 2008, McKinsey thành lập Văn phòng SSO liên quan đến các mảng về sức khỏe cộng đồng, hoạt động từ thiện và phát triển kinh tế tạo cơ hội.[6]